Harris là thành viên của đội Chelsea giành chức vô địch FA Youth Cup năm 1961 và có màn ra mắt đôi một vào tháng 2 năm 1962 trong chiến thắng 1-0 trước Sheffield Wednesday. Chỉ trong một năm ông đã trở thành cái tên quen thuộc trong đội bóng, vị trí mà ông đã giữ trong 18 năm tiếp theo. Ông là một phần quan trọng của huấn luyện viên mới Tommy Docherty trong việc xây dựng lại đội bóng từ tuyến trẻ sau khi câu lạc bộ xuống hạng từ First Division cùng với những người như Peter Bonetti, Peter Osgood và Bobby Tambling.

Khi câu lạc bộ trở lại với hạng đấu cao nhất, Harris càng củng cố danh tiếng và tài năng - một hậu vệ mạnh mẽ. Danh hiệu đầu tiên của ông cùng Chelsea là League Cup sau chiến thắng trước Leicester City năm 1965. Cũng trong mùa giải đó, Chelsea tranh chấp danh hiệu hầu hất cả mùa giải nhưng cuối cùng chỉ kết thúc ở vị trí thứ ba khi chỉ thắng có một trong năm trận đấu cuối. Ông trở thành đội trưởng câu lạc bộ năm sau đó khi Terry Venables chuyển tới Tottenham Hotspur và tới năm 1967 trở thành đội trưởng trẻ nhất của một đội góp mặt tại Chung kết FA Cup 1967, nhưng lại để thua 2-1 trước Tottenham. Chelsea, dưới sự chỉ đạo của Harris, lọt vào chung kết FA Cup ba năm sau đó, lần này là gặp Leeds United - một đội bóng hàng đầu của bóng đá Anh thời điểm đó. Trận chung kết FA Cup 1970 cho thấy Harris là một thủ lĩnh tinh thần và là một người hậu vệ kiên cường. Chelsea giành chức vô địch sau chiến thắng 2-1 trong trận đá lại khi trước đó hòa 2-2 trong trận đấu đầu tiên

Mùa giải sau đó Harris giành danh hiệu lớn của châu Âu đầu tiên cho Chelsea - UEFA Cup Winners' Cup - trong một trận đá lại khác với Real Madrid ở Athens. Chelsea cũng lọt tới League Cup lần hai 1972, nhưng bất ngờ để thua trước Stoke trong trận chung kết lớn cuối cùng của ông ở câu lạc bộ